目前，DeepSeek系列大模型正以驚人的速度滲透至各行各業(yè)。據(jù)不完全統(tǒng)計(jì)，目前已有超過200家頭部企業(yè)完成DeepSeek技術(shù)接口的集成部署，涵蓋智能硬件、汽車、傳媒、互聯(lián)網(wǎng)、半導(dǎo)體、教育、文旅、生物醫(yī)療等各個(gè)行業(yè)。近日，多地政務(wù)系統(tǒng)接入DeepSeek，進(jìn)一步為大模型的應(yīng)用提供了新場景。隨著大模型應(yīng)用的廣泛普及，其高效能和易用性背后也面臨著內(nèi)生安全、應(yīng)用安全等諸多風(fēng)險(xiǎn)挑戰(zhàn)，大模型安全保障也將迎來新的發(fā)展機(jī)遇。

內(nèi)生安全風(fēng)險(xiǎn)

內(nèi)生安全風(fēng)險(xiǎn)指人工智能自身缺陷和不足引發(fā)的風(fēng)險(xiǎn)，包括模型算法安全、數(shù)據(jù)安全、系統(tǒng)安全等。例如，大模型需處理大量敏感數(shù)據(jù)，如用戶搜索記錄、社交媒體互動及交易信息等，這使其面臨數(shù)據(jù)泄露和隱私侵犯的風(fēng)險(xiǎn)。同時(shí)，模型自身可能存在缺陷或后門，容易成為攻擊目標(biāo)。一旦模型參數(shù)和權(quán)重被泄露，不僅會導(dǎo)致知識產(chǎn)權(quán)損失，還可能被惡意復(fù)制或篡改，進(jìn)一步加劇風(fēng)險(xiǎn)。此外，針對模型的特定攻擊（如投毒攻擊）可能操控輸出結(jié)果，干擾正常業(yè)務(wù)運(yùn)行。

應(yīng)用安全風(fēng)險(xiǎn)

應(yīng)用安全風(fēng)險(xiǎn)是指因人工智能的不當(dāng)使用、濫用甚至惡意利用而產(chǎn)生的安全風(fēng)險(xiǎn)，涵蓋網(wǎng)絡(luò)域、現(xiàn)實(shí)域、認(rèn)知域和倫理域等。大模型系統(tǒng)往往作為知識載體，支撐人類認(rèn)知決策，尤其在網(wǎng)絡(luò)域的信息內(nèi)容安全風(fēng)險(xiǎn)方面，大模型生成的內(nèi)容可能引發(fā)虛假信息傳播、歧視偏見、隱私泄露、侵權(quán)、有害內(nèi)容等問題，進(jìn)而威脅公民生命財(cái)產(chǎn)安全、國家安全、意識形態(tài)安全和倫理安全。

大模型安全防護(hù)產(chǎn)品與評估服務(wù)

基于在安全領(lǐng)域多年的研究，針對大模型系統(tǒng)，天融信推出專用大模型安全評估產(chǎn)品的同時(shí)，防火墻、WAF、網(wǎng)絡(luò)防泄露等產(chǎn)品也已全面升級，可針對性解決大模型系統(tǒng)的網(wǎng)絡(luò)安全、應(yīng)用安全、數(shù)據(jù)隱私泄露、漏洞防范等常見問題。天融信大模型安全防護(hù)產(chǎn)品與評估服務(wù)，已支持DeepSeek、通義千問、Kimi、文心一言、豆包等主流大模型，為大模型安全運(yùn)行提供堅(jiān)實(shí)安全保障。

針對網(wǎng)絡(luò)安全防護(hù)

通過AI系統(tǒng)的邊界防護(hù)能力，為企業(yè)提供全面的網(wǎng)絡(luò)層安全防護(hù)，涵蓋網(wǎng)絡(luò)接入控制、訪問權(quán)限管理、流量與會話控制等。通過流量業(yè)務(wù)預(yù)警、抽樣分析和模式過濾等技術(shù)手段，快速識別并阻斷攻擊流量，并利用雙向僵木蠕檢測功能，快速識別并阻斷僵尸網(wǎng)絡(luò)攻擊，確保大模型應(yīng)用服務(wù)的穩(wěn)定運(yùn)行。

針對模型注入防護(hù)

通過內(nèi)容生成監(jiān)控，利用協(xié)議解析引擎與多種識別技術(shù)（如關(guān)鍵字、正則表達(dá)式、機(jī)器學(xué)習(xí)算法等），實(shí)時(shí)過濾違規(guī)信息。同時(shí)，構(gòu)建提示注入訓(xùn)練數(shù)據(jù)集，增強(qiáng)對優(yōu)化提示指令及對抗攻擊模板的檢測能力，防止非法內(nèi)容發(fā)布或參數(shù)泄露。

針對數(shù)據(jù)隱私泄露

采用深度內(nèi)容識別技術(shù)，結(jié)合關(guān)鍵字檢測、OCR圖像文字檢測等方式，全面監(jiān)測敏感信息并及時(shí)阻斷違規(guī)行為。通過成員推理攻擊防護(hù)機(jī)制和用戶行為分析，降低隱私泄露風(fēng)險(xiǎn)。同時(shí)，梳理并分類API接口，提供可視化監(jiān)控界面，實(shí)現(xiàn)數(shù)據(jù)流動的全程跟蹤與保護(hù)。

針對Web威脅防護(hù)

通過智能算法，精準(zhǔn)識別并迅速過濾掉海量的虛假流量，有效抵御前端SQL注入、跨站腳本（XSS）攻擊、CSRF（跨站請求偽造）以及DDoS攻擊等各類Web攻擊威脅，確保服務(wù)器的穩(wěn)定運(yùn)行，為用戶帶來流暢、無中斷的優(yōu)質(zhì)體驗(yàn)。

針對模型脆弱性風(fēng)險(xiǎn)

基于大模型安全評估工具，通過深度學(xué)習(xí)框架，構(gòu)建大模型專項(xiàng)檢測特征庫及內(nèi)容安全測評樣本集，針對大模型的有害內(nèi)容生成、安全漏洞利用、供應(yīng)鏈污染等應(yīng)用安全風(fēng)險(xiǎn)，實(shí)現(xiàn)覆蓋“開發(fā)階段-部署階段-應(yīng)用階段”的全鏈路安全檢測能力。

大模型安全評估服務(wù)

依托天融信專家服務(wù)團(tuán)隊(duì)，通過漏洞掃描、基線核查、滲透測試、代碼審計(jì)、容器逃逸測試、應(yīng)用系統(tǒng)代碼審計(jì)等服務(wù)內(nèi)容，對大模型系統(tǒng)環(huán)境安全進(jìn)行評估，結(jié)合針對大模型的非授權(quán)代碼執(zhí)行、數(shù)據(jù)泄露、模型API接口權(quán)限校驗(yàn)、會話權(quán)限等測試手段，對大模型系統(tǒng)自身安全進(jìn)行測試。

隨著國產(chǎn)化應(yīng)用的火爆，不法分子“蹭熱度式”地進(jìn)行網(wǎng)絡(luò)入侵和網(wǎng)絡(luò)欺詐，極有可能再次成為下一個(gè)火爆的國產(chǎn)化新技術(shù)應(yīng)用面臨的網(wǎng)絡(luò)安全威脅，也為我國新興高科技行業(yè)應(yīng)對網(wǎng)絡(luò)安全風(fēng)險(xiǎn)敲響了警鐘。

在一次光明網(wǎng)的采訪中，天融信科技集團(tuán)助理總裁王媛媛提到：“綜合來看，DeepSeek攻擊的流量規(guī)模在全球DDoS事件中排名前列。”無獨(dú)有偶，此前《黑神話：悟空》全球上線后，也曾遭遇海外60個(gè)僵尸網(wǎng)絡(luò)大規(guī)模攻擊，網(wǎng)絡(luò)攻擊對熱門應(yīng)用尤為“青睞”。

當(dāng)下，中國國產(chǎn)大模型正通過提質(zhì)增效的方式錨定AI普惠“新坐標(biāo)”，形成從技術(shù)到應(yīng)用，再從應(yīng)用反哺技術(shù)創(chuàng)新的完整閉環(huán)。隨著大模型技術(shù)從實(shí)驗(yàn)室走向產(chǎn)業(yè)縱深，大模型將加速向垂直領(lǐng)域滲透，成為產(chǎn)業(yè)智能化升級的“數(shù)字神經(jīng)元”。在此進(jìn)程中，其安全性與可控性已成為實(shí)現(xiàn)規(guī)模化應(yīng)用的核心命題，安全與智能的深度融合將成為突破技術(shù)壁壘、實(shí)現(xiàn)可持續(xù)發(fā)展的關(guān)鍵。

未來，天融信將持續(xù)深化對大模型內(nèi)生安全風(fēng)險(xiǎn)與應(yīng)用安全風(fēng)險(xiǎn)的研究，通過融合專項(xiàng)防護(hù)與基礎(chǔ)安全技術(shù)，并結(jié)合安全服務(wù)與持續(xù)運(yùn)營，將安全貫穿于大模型的設(shè)計(jì)、研發(fā)與應(yīng)用全生命周期，打造大模型安全“識別–保護(hù)–檢測-響應(yīng)–恢復(fù)”的可持續(xù)迭代，保障大模型技術(shù)賦能千行百業(yè)。

相關(guān)閱讀

1、開箱即用！天融信發(fā)布DeepSeek安全智算一體機(jī)

2、天融信：離線天問大模型接入DeepSeek，安全大模型本地化全面提速

3、天融信DLP升級革新，提升大模型安全防御水平

4、天融信正式接入DeepSeek！強(qiáng)化大模型網(wǎng)絡(luò)安全防護(hù)勢在必行